Từ năm 1966-1969: Công tác phong trào thanh niên, học sinh sinh viên P.K 2. Từ năm 1969-1971, Đảng ủy viên, Bí thư Đoàn thanh niên, phụ trách đội du kích bí mật thị trấn Đức Hòa, Long An. Năm 1971, bị chính quyền Sài Gòn bắt giam ở nhà tù Phú Quốc. Năm 1973, được trao trả theo Hiệp định Paris.
Từ năm 1973-1975, công tác tại Ban T73 thuộc Ủy ban Thống nhất Trung ương.
Hoạt động tại Thành phố Hồ Chí Minh
Năm 1975-1979, công tác ở Liên hiệp công đoàn Gia Định, rồi Ban khai hoang xây dựng kinh tế mới Thành phố Hồ Chí Minh, Phó Ban khai hoang.
Năm 1979-1983, Giám đốc Nông trường Phạm Văn Hai, Thành phố Hồ Chí Minh, Thành Ủy viên dự khuyết.
Năm 1983-1986, Thành Ủy viên, Giám đốc Sở Lâm nghiệp Thành phố Hồ Chí Minh.
Tháng 6-1991, tại Đại hội Đại biểu toàn quốc lần thứ VII của Đảng, được bầu là Ủy viên Ban Chấp hành Trung ương Đảng, Ủy viên Thường vụ Thành ủy, Giám đốc Sở Nông nghiệp Thành phố Hồ Chí Minh.
Tháng 7-1996, tại Đại hội Đại biểu toàn quốc lần thứ VIII của Đảng, được bầu là Ủy viên Ban Chấp hành Trung ương Đảng, được Trung ương bầu vào Bộ Chính trị, giữ chức Bí thư Thành ủy Thành phố Hồ Chí Minh.
Tham gia công tác Trung ương
Từ 1-2000, được Bộ Chính trị phân công làm Trưởng ban Kinh tế Trung ương.
Tháng 1-2003, tại Hội nghị Trung ương 7 khóa IX, ông bị Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam kỉ luật khiển trách vì trong thời kỳ làm bí thư Thành ủy Thành phố Hồ Chí Minh (khóa VI, từ 1996-2000), ông chưa "làm tròn trách nhiệm trong việc chỉ đạo điều tra, ngăn chặn những hoạt động tội phạm của Trương Văn Cam cùng đồng bọn và có những khuyết điểm trong công tác cán bộ."[3]
Tháng 4-2006, tại Đại hội Đại biểu toàn quốc lần thứ X của Đảng, được bầu là Uỷ viên Ban Chấp hành Trung ương Đảng, được Trung ương bầu vào Bộ Chính tri, Ban Bí thư Trung ương.
Ngày 10 tháng 6 năm 2013, trong cuộc bỏ phiếu tín nhiệm của Quốc hội Việt Nam, ông đạt 330 phiếu "tín nhiệm cao", 133 phiếu tín nhiệm, và 28 phiếu tín nhiệm thấp.[10]
Ngày 26 tháng 7 (giờ Việt Nam) năm 2013, khi phát biểu tại Trung tâm nghiên cứu chiến lược và quốc tế Hoa Kỳ (CSIS) ở Washington, D.C., ông bày tỏ việc phản đối "đường chín đoạn" trên Biển Đông do chính quyền Trung Quốc đưa ra, và cho rằng "đường chín đoạn" này được xác lập không có cơ sở và căn cứ của bất cứ loại luật pháp quốc tế nào.[11]
Tháng 1 năm 2016 tại Đại hội XII của Đảng Cộng sản Việt Nam ông vẫn nhận được đề cử vào BCH Trung ương, mặc dù trước đó ông xin không tái cử. Sau đó Đại hội đã biểu quyết cho phép ông rút khỏi danh sách bầu cử.[12]
Ngày 31 tháng 3 năm 2016, Quốc hội chấp thuận miễn nhiệm chức danh Chủ tịch nước CHXHCN Việt Nam với 90,49% số phiếu đồng ý.[13]
Ngày 2 tháng 4 năm 2016, ông thôi chức Chủ tịch nước CHXHCN Việt Nam, sau gần 5 năm đảm nhiệm. Thay vào đó là Đại tướngTrần Đại Quang.
